برایم عجیب است که امروز در ایالات متحده، یک قرص جدید برای درمان سوزش سر دل باید ماه‌ها یا حتی سال‌ها تحت تأیید و آزمایش دولتی قرار گیرد تا پیش از عرضه عمومی آزاد شود. اما قدرتمندترین فناوری توسعه‌یافته — که توانایی نفوذ به بانک‌ها، خاموش کردن شبکه‌های برق یا کمک به ساخت سلاح‌های بیولوژیکی را دارد — بدون حتی یک بررسی اولیه دولتی منتشر می‌شود.
ما دچار یک شکست جمعی در تخیل درباره هوش مصنوعی هستیم. در حالی که بسیاری از نزدیکان این فناوری هشدارهای جدی صادر کرده و خواستار نظارت شده‌اند، به نظر نمی‌رسد که این موضوع دغدغه اصلی عمومی باشد. کنگره، البته، تاکنون نقش خود را به عنوان قانون‌گذار رها کرده است و دولت ترامپ خوشحال است که اجازه دهد صنعت خود را تنظیم کند.
رئیس جمهور ترامپ درست می‌گوید که اصطلاح «هوش مصنوعی» این پدیده را بازتاب نمی‌دهد. این ابرهوش (Superintelligence) است: ظرفیت تحلیلی بیشتر از هر انسانی و شاید حتی مجموعه‌ای از باهوش‌ترین انسان‌ها. ما به دنبال تشبیهات هستیم — انقلاب صنعتی، برق، اینترنت. اما برق هر شش ماه به صورت نمایی باهوش‌تر نمی‌شود. اینترنت نمی‌تواند مسائل ریاضی را حل کند، بیماری‌ها را تشخیص دهد یا سلاح‌های جدید طراحی کند.
افراد بد می‌توانند از این ابرقدرت‌ها برای اهداف بد استفاده کنند، اما این ترسناک‌ترین سناریو نیست. ما شاهد بوده‌ایم که مدل‌ها هنگام دنبال کردن اهداف بدون دستور قبلی، به پایگاه‌های داده و سیستم‌های کامپیوتری نفوذ می‌کنند. ناگهان، آزمایش فکری قدیمی درباره هوش مصنوعی که به او گفته شده تولید گیره کاغذ را به حداکثر برساند — که سپس دیوانه‌وار تمام انرژی و منابع جهان را برای ساخت گیره کاغذ بیشتر تصرف می‌کند — کمی کمتر خیالی به نظر می‌رسد. خطر این نیست که ماشین شرور شود. خطر این است که در حین دنبال کردن هدف مشروع خود، به شدت و غیرقابل پیش‌بینی مخرب شود.
خودتنظیمی ممکن نیست. اگر یک آزمایشگاه شش ماه صرف تست یک مدل قدرتمند کند در حالی که رقبایش مدل‌های خود را منتشر می‌کنند، احتیاط جریمه تجاری دارد. شرکت‌ها خودشان این را درک می‌کنند. فراخوان‌های صادر شده توسط محققان و مدیران ارشد تقریباً تمام شرکت‌های پیشرو هوش مصنوعی در دو سال گذشته را بخوانید و خواهید دید که هشدارهایی درباره «مسابقه به سمت پایین» وجود دارد، جایی که همه ممکن است ایمنی بیشتر را ترجیح دهند اما هیچ‌کس نمی‌تواند اولین کسی باشد که سرعت را کم کند. این یک مشکل کلاسیک اقدام جمعی است — و دقیقاً همان چیزی که تنظیم مقررات برای حل آن طراحی شده است. برای شروع، بسیاری از حفاظت‌های داوطلبانه پیشنهاد شده توسط صنعت می‌توانند به الزامی تبدیل شوند.
اما چه خبر از چین؟ استدلالی مبنی بر اینکه مقررات آمریکا صرفاً «به چین اجازه پیروزی می‌دهد» با یک پیش‌فرض نادرست آغاز می‌شود — چین بدون قوانین پیش نمی‌رود. پکن از قبل سیستم‌های هوش مصنوعی قدرتمند را تنظیم می‌کند، ارزیابی‌های امنیتی را الزامی می‌سازد و نحوه توسعه و استقرار مدل‌ها را محدود می‌کند. و تاریخ نشان نمی‌دهد که رقابت فناوری باید به معنای رها کردن ایمنی باشد. در دوران جنگ سرد، ایالات متحده در یک مسابقه هسته‌ای وجودی با اتحاد جماهیر شوروی بود، با این حال ما الزام داشتیم که راکتورهای غیرنظامی مجوز بگیرند و استانداردهای ایمنی فدرال را رعایت کنند. در واقع، شوروی‌ها بودند که فرهنگ ایمنی ضعیف و نظارت ناکافی داشتند که منجر به فاجعه چرنوبیل شد. پس از آن، واشنگتن و مسکو در واقع همکاری در زمینه ایمنی هسته‌ای را گسترش دادند و پذیرفتند که برخی ریسک‌ها فراتر از رقابت ملی هستند. هرچه رقابت شدیدتر و فناوری مهم‌تر باشد، تعیین قوانین برای مسابقه اهمیت بیشتری پیدا می‌کند.
مقررات معقول می‌توانند شما را قوی‌تر کنند. پس از بحران مالی ۲۰۰۸، واشنگتن قوانین جدید عمده‌ای بر بانک‌های آمریکایی تحمیل کرد — الزامات سرمایه بالاتر، آزمون‌های تنش و محدودیت‌های ریسک‌پذیری. بانک‌ها فریاد زدند. رئیس ولز فارگو آزمون‌های تنش را «احمقانه» نامید. به ما گفته شد که واشنگتن یکی از صنایع بزرگ آمریکا را زنجیر کرده است.
اما حدس بزنید چه شد؟ در سال‌های بعد، بانکداری آمریکا شکوفایی یافت. طبق گزارش Quartz، از حدود ۲۰۱۲ تا ۲۰۲۲، شش بانک بزرگ آمریکا ۶۴۳ میلیارد دلار سود کسب کردند، بیشتر از دهه قبل از آن. و آنها فقط ثروتمندتر نشدند؛ مانند هرگز قبل بر جهان مسلط شدند. شش بانک برتر آمریکا امروز دارای ارزش بازار ترکیبی بزرگ‌تر از ۲۰ بانک برتر اروپا هستند. در اوایل دهه ۲۰۰۰، ارزش بازار جی‌پی مورگان چیس حدود ۴۰ درصد کوچک‌تر از اچ‌اس‌بی‌سی، بزرگ‌ترین بانک اروپا بود. امروز، جی‌پی مورگان چیس، اکنون بزرگ‌ترین بانک آمریکا، ارزش بازار بزرگ‌تری نسبت به چهار بانک برتر اروپا به طور ترکیبی دارد. تنظیم مقررات تنها دلیل نبود. آمریکا سریع‌تر بهبود یافت، اروپا لغزش کرد و بانک‌های آمریکا از کاهش مالیات بهره‌مند شدند. اما اجبار بانک‌ها به افزایش سرمایه، حذف ریسک و تست ظرفیت بقا در شوک‌های شدید، رقابت‌پذیری آنها را از بین نبرد؛ بلکه آن را تقویت کرد.
هوش مصنوعی فناوری غالب قرن ۲۱ خواهد بود. آمریکا باید بخواهد بر آن مسلط شود. اما تسلط متعلق به کشوری نخواهد بود که سریع‌ترین مدل‌های قدرتمند را می‌سازد. متعلق به کشوری خواهد بود که جهان حاضر است به هوش مصنوعی آن اعتماد کند — با داده‌ها، زیرساخت‌ها، کسب‌وکارها و حتی سلاح‌هایش. چین هوش مصنوعی بسیار قدرتمندی خواهد ساخت. آمریکا باید هوش مصنوعی قدرتمند اما ایمن بسازد، با انسان در مرکز و کنترل. ترکیب فناوری آمریکایی با ارزش‌های آمریکایی بهترین مزیت رقابتی ما خواهد بود.